Năm 1994, ông đã gia nhập IDD Information Services, một chi nhánh của Dow Jones & Company tại New Jersey. Tại đây, Lý Ngạn Hoành đã giúp phát triển một chương trình phần mềm cho phiên bản điện tử của tờ nhật báo The Wall Street Journal,[10] đồng thời nghiên cứu thuật toán cho công cụ tìm kiếm. Ông làm việc tại IDD từ tháng 5 năm 1994 đến tháng 6 năm 1997. Năm 1996, trong khi làm việc, ông đã phát triển Rankdex, một thuật toán chấm điểm cho các trang xếp hạng công cụ tìm kiếm,[11][12][13] which was awarded a U.S. patent.[14] và đã được trao bằng sáng chế của Mỹ.[15] Sau đó ông đã sử dụng công nghệ này cho các công cụ tìm kiếm của Baidu.

Li đã làm việc như một nhân viên kỹ thuật cho Infoseek, một công ty tiên phong về công cụ tìm kiếm internet, từ tháng 7 năm 1997 đến tháng 5 năm 1999. Một đóng góp to lớn của ông chính là việc phát triển chức năng tìm kiếm hình ảnh được sử dụng bởi Go.com.[15] Kể từ khi sáng lập Baidu vào tháng 1 năm 2000, Lý Ngạn Hoành đã biến nó trở thành công cụ tìm kiếm lớn nhất Trung Quốc, với hơn 80% thị phần truy cập tìm kiếm qua Baidu, khiến Baidu trở thành công cụ tìm kiếm độc lập lớn thứ hai trên thế giới sau Google. Ngày 05 tháng 8 năm 2005, cổ phiếu của Baidu đã được niêm yết trên sàn giao dịch chứng khoán NASDAQ. Đến năm 2007, Baidu đã trở thành công ty Trung Quốc đầu tiên có mặt trong NASDAQ-100 Index. Lý Ngạn Hoành cũng đã xuất hiện trong danh sách hàng năm của CNN Money về "50 doanh nhân hàng đầu" vào năm 2007.[16]